James Madison của Virginia đến Philadelphia sớm 11 ngày và quyết viết nghị trình của đại hội.[22] Trước hội nghị, Madison nghiên cứu các nước cộng hoà và liên bang trong suốt lịch sử, như Hy Lạp đời xưa và Thụy Sĩ bấy giờ.[23] Tháng 4 năm 1787, ông ra một bài mang tên “Các tệ hại của hệ thống chính trị Hoa Kỳ”, khen chê tỉ mỉ hệ thống chính trị Hoa Kỳ và đưa ra cách sửa các chỗ yếu kém.[24] Vì được sửa soạn trước cho nên kế hoạch sửa đổi hiến pháp của Madison trở thành nền móng của các cuộc thảo luận của đại hội.[25]

Madison chủ trương Hoa Kì phải thiết lập chính phủ trung ương mạnh mẽ.[23] Quốc hội cần phải có quyền đánh thuế và quyền quản lí việc buôn bán với nước ngoài, giữa các bang.[22] Chính phủ liên bang phải khẳng định được quyền lực, Madison đề nghị trao cho Quốc hội quyền cưỡng chế các bang và thành lập hệ thống toà án liên bang. Madison cũng đề xuất thay đổi cách chia nghị sĩ Quốc hội. Vì Quốc hội sẽ trị thẳng công dân, bỏ qua các bang, cho nên số nghị sĩ phải tương ứng với số dân, các bang đông dân sẽ có nhiều ghế hơn các bang ít dân.[26]

Madison cũng nghĩ tới cách bảo vệ quyền lợi của số ít trong một nước dân chủ. Chính phủ không được thiên về bên nào trong xã hội, không được nghiêng về chủ nợ hay con nợ, giàu hay nghèo, nông dân, thương gia hay nhà sản xuất. Madison xét một chính phủ toàn quốc bao gồm nhiều nhóm mưu lợi khó bị chỉ một phe thao túng. Chính phủ cũng phải có thể cưỡng lại sức ép của phe số đông. Để bảo vệ cả chính quyền quốc gia lẫn quyền lợi số ít, Madison đề xuất Quốc hội được phủ quyết luật của các bang.[27]